MR
MIT Tech Review • 45일 전
IMP 8
AI 전쟁에서 '인간의 통제'가 환상인 이유
미국 국방부의 AI 무기 사용을 둘러싼 논쟁에서, 작전에 '인간이 개입한다(Humans in the loop)'는 개념이 실제로는 통제를 보장하지 못하는 모순을 지적합니다. 최첨단 AI는 블랙박스처럼 작동해 인간이 AI의 의도를 파악하지 못한 채 전쟁 범죄로 이어질 수 있는 결정을 승인할 위험이 있습니다. 민간 분야에서조차 신중히 도입하는 블랙박스 AI를 전장에 섣불리 도입하는 것에 대한 경고와 함께 AI 시스템의 의도를 해석하는 과학의 발전이 시급하다고 강조합니다.
AI 무기 군사 AI AI 안전